PhantomEnvironments: Training LLM Agents in Fictional Worlds
幻境环境：在虚构世界中训练LLM智能体
🧭 规则生成合成环境训练搜索Agent ★ 深度解读
Cornell University · Stanford University
用零成本规则生成的虚构多跳问答环境做RL训练，得到可迁移到真实多跳基准的LLM搜索agent
📌 工作参考价值（4 点）
- 可构建规则生成的“虚拟商品/用户图谱”环境，以零边际成本生成多跳query-answer对，用于RL训练搜索/推荐agent，避免依赖LLM生成数据带来的幻觉和污染。
- 用纯线性跳数（hop）作为难度主轴，优先训练问题分解与逐跳检索；comparison类题型可按需混入50%以定向补强比较推理，不要盲目加constraints防止模型学会逐字query捷径。
- 真实业务数据有知识时效和memorization shortcut问题，可把规则环境作为跨域/新库存的鲁棒训练补充，尤其当线上query超出训练分布时；关闭knowledge advantage，让模型学通用搜索技能。
- 监控agent搜索调用次数随问题难度的缩放行为，可以作为训练质量指标；Qwen2.5在虚构环境交互后涌现线性search scaling，提示可将其作为模型是否掌握自适应检索预算的信号。